Potentieel grote rol voor taalmodellen in informatielandschap

De verspreiding van onbetrouwbare informatie via generatieve AI kan ernstige gevolgen hebben. Tegelijkertijd bieden taalmodellen, mits goed getraind en geëvalueerd, oplossingen voor complexe vragen, aldus onderzoek van taalwetenschapper Chantal van Son.

Van Son illustreert een mogelijke toepassing: “Stel, je wilt weten of je je kind moet laten vaccineren. Taalmodellen kunnen worden ingezet in applicaties die overzicht bieden van beweringen over de veiligheid en effectiviteit van vaccinaties. Ze kunnen inzicht geven in welke bronnen vóór of tegen vaccinaties pleiten, en wat de onderliggende argumenten zijn.”

Beperkingen van bestaande datasets
Uit analyse van bestaande datasets blijkt dat deze vaak tekortschieten. Veel datasets zijn gebaseerd op kunstmatige tekst en houden onvoldoende rekening met de verschillende perspectieven die in teksten worden uitgedrukt. Dit is volgens Van Son problematisch, omdat teksten, zoals nieuwsberichten en sociale media, vaak meerdere standpunten bevatten.

Nieuwe technieken: PANLI-dataset
Van Son ontwikkelde daarom de PANLI (Perspective-Aware Natural Language Inference) dataset. Deze is gebaseerd op teksten over vaccinaties en koppelt zinnen op basis van hun betekenis. Bijzonder aan de dataset is dat de relaties tussen zinnen worden beoordeeld vanuit zowel het standpunt van de auteur als van genoemde bronnen. Dit biedt nieuwe mogelijkheden voor het begrijpen en inzetten van subjectiviteit in taalmodellen.

Volgens Van Son kan de PANLI-dataset een grote vooruitgang betekenen voor toepassingen van taalmodellen in praktijksituaties, bijvoorbeeld in de medische besluitvorming of bij mediatoepassingen.

Lees het volledige artikel op de website van de Vrije Universiteit.